Проблема слепых действий

При решении сложных логических задач или извлечении нескольких частей информации принуждение ИИ сразу выбирать действие может привести к катастрофическим ошибкам.

Подумайте, как человек решает головоломку из пазлов:

• Они не просто берут случайную деталь и вставляют её на доску.
• Они мысленно или вслух выстраивают стратегию: "Сначала мне нужно найти плоские краевые детали для рамки, а затем проверить, подходит ли эта синяя деталь."

Аналогично, если мы заставляем ИИ только выводить только действие — пропуская этап рассуждений — это «слепое поведение». Оно часто будет угадывать, галлюцинировать или выбирать неправильный инструмент, потому что не определило предпосылок для ответа на запрос.